在人工智能技术日趋强大和普及的情况下，任何人都可以简单利用 AI 来生成对明星不利的照片或内容。乐坛天后泰勒丝（Taylor Swift）的 AI 虚假“不雅照片”近日涌现社交平台，有些帐号分享的内容被查看数百万次，甚至有帖文的观看次数超过 4,500 万次。
日前有网友用 AI 制作她在美式足球员男友 Travis Kelce 赛事中进行的性爱虚假照片，并且透过 X 平台广为流传，散布者的贴文在 17 小时后被平台删除，但当时已经有 4,500 万点击率，而照片更是继续被不同用户分享。
有外媒透过 Telegram 社群群组，发现有成员在聊天中分享其使用生成式 AI 工具Microsoft Designer 制作虚假裸照。Microsoft 表示必须采取行动以保障网络世界安全，他们会在技术设置保护机制，以便用户制作更多安全的内容。
自从不雅照疯传后，Taylor Swift 的粉丝发起保护偶像的行动，包括降低相关内容的曝光率，举报分享图片的帐户，并且以偶像的 hashtag 发布正面的内容。同时间，粉丝亦批评 X 平台处置的速度过慢。
作为暂时的措施，X 平台阻止用户搜寻 Taylor Swift 的名字。目前在 X 平台上搜寻 Taylor Swift 会显示“发生错误”，不过透过搜寻器联想功能仍可找到她的帐号，而全名再加其他关键字则可如常显示搜寻结果。
事件引起美国政府关注，白宫表明支持立法规管社交平台上滥用人工智能技术的行为，又说平台需采取措施禁止有关内容，国会议员亦呼吁立法禁止制作深伪图片。白宫强调，正尝试与人工智能企业合作，将人工智能生成的虚假影像加入水印，令公众更容易辨别真假。
